技術問答
技術文章
iT 徵才
Tag
聊天室
2024 鐵人賽
登入/註冊
問答
文章
Tag
邦友
鐵人賽
搜尋
2023 iThome 鐵人賽
DAY
22
0
AI & Data
什麼演算法?一起來學機器學習!
系列 第
22
篇
Day22-LightGBM(Light Gradient Boosting Machine)
15th鐵人賽
機器學習
machine learning
lightgbm
學習筆記
yao021019
團隊
好想放假大學
2023-10-07 08:47:30
317 瀏覽
分享至
利用弱分類器(決策樹)迭代訓練或得強分類器,其具有訓練效果好、不易過擬合等優點。
LightGBM V.S. XGBoost
圖源:
https://reurl.cc/Ryyg9D
XGBoost
XGBoost是基於gradient boosting進行優化,包括加入正規化來防止過擬合等
XGBoost樹以水平方向生長,是一層一層生長
關於XGBoost在幾天前的文章中有寫過筆記
XGBoost的缺點:
需大量記憶體
花費時間較多
LightGBM
LightGBM樹以垂直方向生長(如圖),使用帶有深度限制的按葉子生長(leaf-wise) 的方式
透過GOSS技術,LightGBM能夠在保持較高預測效能的同時,減少記憶體消耗
GOSS的方法: 簡單來說就是保留有最大梯度的資料,並在其他具有小梯度的資料上採用隨機取樣
參考資料
https://chwang12341.medium.com/machine-learning-%E7%B5%A6%E8%87%AA%E5%B7%B1%E7%9A%84%E6%A9%9F%E5%99%A8%E5%AD%B8%E7%BF%92%E7%AD%86%E8%A8%98-kaggle%E7%AB%B6%E8%B3%BD%E5%BF%85%E5%82%99-86305848a0c4
https://zhuanlan.zhihu.com/p/31148458
留言
追蹤
檢舉
上一篇
Day21-主成分分析 (Principal Component Analysis)
下一篇
Day23-Naive Bayes Classifier
系列文
什麼演算法?一起來學機器學習!
共
30
篇
目錄
RSS系列文
訂閱系列文
6
人訂閱
26
# Day26-Single Shot MultiBox Detector (SSD) part1
27
# Day27-Single Shot MultiBox Detector (SSD) part2
28
Day28-Single Shot MultiBox Detector (SSD) part3
29
Day29-混淆矩陣(confusion matrix)
30
Day30-完賽啦!對於這次鐵人賽,我有話要說
完整目錄
直播研討會
{{ item.subject }}
{{ item.channelVendor }}
{{ item.webinarstarted }}
|
{{ formatDate(item.duration) }}
直播中
立即報名
尚未有邦友留言
立即登入留言
iThome鐵人賽
參賽組數
1064
組
團體組數
40
組
累計文章數
22202
篇
完賽人數
602
人
看影片追技術
看更多
{{ item.subject }}
{{ item.channelVendor }}
|
{{ formatDate(item.duration) }}
直播中
熱門tag
看更多
15th鐵人賽
16th鐵人賽
13th鐵人賽
14th鐵人賽
12th鐵人賽
11th鐵人賽
鐵人賽
2019鐵人賽
javascript
2018鐵人賽
python
2017鐵人賽
windows
php
c#
windows server
linux
css
react
vue.js
熱門問題
熟識南投軟體工程師推薦
筆電無法使用usb開機重裝系統
CCNA相關問題詢問
要怎知道LINE使用者的使用地址
電商在販售商品時,可以自行縮短保固期限嗎?
求救 有人會修改cookie權限嗎
防火牆互通問題
桌面的使用者文件圖標壞掉
函數問題
Cisco 防火牆密碼確認正確,可是無法登入
熱門回答
防火牆互通問題
開啟Microsoft Edge 瀏覽器無法開啟網頁,出現錯誤訊息
電商在販售商品時,可以自行縮短保固期限嗎?
筆電無法使用usb開機重裝系統
if函數中的>&<&=是否可以使用儲存格代替
熱門文章
[翻譯]使用AI工具寫程式碼時如何避免「AI幻覺」?
每日一篇學習筆記 直到我做完專題 :( [Day3]
每日一篇學習筆記 直到我做完專題 :( [Day4]
每日一篇學習筆記 直到我做完專題 :( [Day5]
每日一篇學習筆記 直到我做完專題 :( [Day6]
IT邦幫忙
×
標記使用者
輸入對方的帳號或暱稱
Loading
找不到結果。
標記
{{ result.label }}
{{ result.account }}